X на Илон Мъск ще наеме 100 модератора на съдържанието след Тейлър Суифт, фиаско с изкуствен интелект

Х на Илон Мъск съобщи, че ще наеме 100 чиновници на цялостен работен ден, с цел да се оправят със половата употреба на деца, откакто генерираните от изкуствен интелект фотоси на Тейлър Суифт изчезнаха вирусен в обществената мрежа предходната седмица.

Базираната в Сан Франциско компания, известна преди като Twitter, разгласи в петък, че ще построи „ център за доверие и сигурност “ в Остин, Тексас, където ще наеме „ вътрешни сътрудници “, които ще имат задачата да постановат наличието на уеб страницата и правила за сигурност.

„ X няма линия на активност, фокусирана върху деца, само че е значимо да създадем тези вложения, с цел да продължим да стопираме нарушителите да употребяват нашата платформа за каквото и да е разпространяване или ангажиране с ПТ наличие “, Джо Бенарок, началник на бизнес интервенции в X, сподели.

Мъск, който закупи уеб страницата, прочут тогава като Twitter, за 44 милиарда $ в края на 2022 година за да разреши неограничена тирада, беше подложен на критика за понижаване на броя на чиновниците от интервенциите за доверие и сигурност на компанията.

Шефът на X беше подложен на рецензии през последните седмици за разпространяването на антисемитско и неонацистко наличие в платформата, което накара някои рекламодатели да изоставен уеб страницата.

През последните дни X беше заставен да блокира някои търсения за Swift, защото нецензурен надълбоко подправени изображения на певицата циркулираха онлайн.

Опитите за търсене на нейното име без кавички на уеб страницата в понеделник доведоха до известие за неточност и подкана към потребителите да опитат още веднъж търсенето си, което добави: „ Не се безпокойте – виновността не е ваша. “

Въпреки това, слагането на кавички към нейното име разреши да се появят изявления, които загатват нейното име.

Фалшивите изображения на Суифт с очевиден полов темперамент и злоупотреби започнаха да циркулират необятно предходната седмица в X, трансформирайки я в най-известната жертва на камшик, който софтуерните платформи и групите за битка със злоупотребата се борят да поправят.

„ Това е краткотрайно деяние и се прави с доста нерешителност, защото даваме приоритет на сигурността по този въпрос “, сподели Бенарок, началник на бизнес интервенциите в X, в изказване.

За разлика от по-конвенционалните модифицирани изображения, които са тормозили звездите в предишното, изображенията на Swift наподобява са основани благодарение на генератор на изображения с изкуствен интелект, който може неотложно да основава нови изображения от писмена подкана.

След като изображенията започнаха да се популяризират онлайн, преданата почитател база на певицата на „ Swifties “ бързо се активизира, започвайки контраатака против X и #ProtectTaylorSwift хаштаг, с цел да я наводнят с повече позитивни изображения на поп звездата.

Някои споделиха, че оповестяват за сметки, които споделят дълбоките имитации.

Групата за надълбоко разкриване на имитации Reality Defender съобщи, че е проследила поток от нецензурен материали без единодушие, изобразяващи Суифт, изключително в X, прочут преди като Twitter.

Някои изображения също си проправяха път до благосъстоятелност на Meta във Фейсбук и други обществени медийни платформи.

Изследователите откриха най-малко няколко дузини неповторими изображения, генерирани от AI.

Най-широко споделяните бяха свързани с футбола, показващи боядисана или окървавена Суифт, която я обективизира и в някои случаи нанесе жестока щета на надълбоко подправената й персона.

Изображенията Swift се появиха за първи път от настояща акция (наречена Lewd DALL-E, която съгласно мен би трябвало да избягваме), която стартира предходната година на периферни платформи за основаване на полово очевидни изображения на звезди, генерирани от AI, сподели Бен Декър от група за разузнаване на закани Memetica.

Едно от изображенията на Swift, които станаха вирусни предходната седмица, се появи онлайн още на 6 януари, сподели той.

Повечето комерсиални генератори на AI изображения имат защитни ограничения за попречване на злоупотреби, само че коментатори в анонимни табла за известия разискват тактики за това по какъв начин да се заобиколи модерирането, изключително на инструмента за текст към изображение на Microsoft Designer, сподели Декер.

„ Това е част от дългогодишна, враждебна връзка сред тролове и платформи “, сподели Декър.

„ Докато съществуват платформи, троловете ще се пробват да ги прекъсват. И до момента в който троловете съществуват, платформите ще бъдат смутени. Така че в действителност поражда въпросът какъв брой пъти още ще се случи това, преди да има сериозна смяна? “

Ходът на X да понижи търсенията на Swift евентуално е краткотрайна мярка.

„ Когато не сте сигурни къде е всичко и не можете да гарантирате, че всичко е било свалено, най-простото нещо, което можете да извършите, е да ограничите способността на хората да го търсят “, сподели той.

Изследователите споделиха, че броят на явните дълбоки имитации е повишен през последните няколко години, защото технологията, употребена за основаване на такива изображения, е станала по-достъпна и по-лесна за потребление.

През 2019 година отчет, оповестен от компанията за изкуствен интелект DeepTrace Labs, сподели, че тези изображения са най-вече оръжия против дами.

Повечето от жертвите, сподели той, са холивудски артисти и южнокорейски K-pop артисти.

В Европейския съюз обособени елементи от ново законодателство включват разпореждания за дълбоки фалшификации.

Законът за цифровите услуги, който влезе в действие предходната година, изисква от онлайн платформите да подхващат ограничения за ограничение на риска от разпространяване на наличие, което нарушава „ съществени права “ като неприкосновеността на персоналния живот, като изображения „ без единодушие “ или надълбоко подправено порно.

Законът за изкуствения разсъдък на 27-те страни от блока, който към момента чака дефинитивно утвърждение, ще изисква от фирмите, които основават дълбоки имитации с изкуствен интелект, също да осведомят потребителите, че наличието е изкуствено или манипулирано.

С пощенски кабели